Thành phố Erzurum có diện tích lớn thứ 4 trong các đơn vị hành chính cấp tỉnh ở Thổ Nhĩ Kỳ, nằm ở độ cao 1.757 mét (5.766 foot) trên mực nước biển. Phần lớn diện tích là đồi núi. Phần lớn cao nguyên cao hơn 2.000 m trên mực nước biển còn các vùng núi cao hơn 3.000 m. Các dãy núi phía nam là dãy núi Palandöken (đỉnh cao nhất Büyük Ejder 3.176 m) và dãy núi Şahveled (đỉnh cao nhất là núi Çakmak cao 3.063 m). Các dãy núi phía bắc Anatolia có dãy núi Mescit (đỉnh cao nhất 3.239 m), dãy núi Kargapazarı (đỉnh cao nhất 3.169 m) và dãy núi Allahuekber. Có hai vùng đồng bằng giữa hai dãy núi này là đồng bằng Erzurum và đồng bằng Hasankale.

Khí hậu lục địa chi phối tỉnh này với mùa đông dài và khắc nghiệt, mùa hè ngắn và ôn hòa.